Несмотря на частые анонсы новых решений, ситуация на рынке ускорителей всё ещё складывается в пользу NVIDIA, которая существенно раньше своих соперников поняла всю важность этого рынка и делает всё возможное для продвижения собственной программной платформы CUDA.

CUDA позволяет разрабатывать приложения, работающие только на аппаратном обеспечении NVIDIA. С учётом взрывной популярности ИИ такая ситуация позволяет компании держать высокие цены, да и сама платформа хорошо отшлифована временем. Но вкупе с дефицитом ускорителей NVIDIA всё это негативно влияет на развитие индустрии ИИ в целом, что закономерно вызывает недовольство со стороны разработчиков.

С целью положить конец такому порядку ряд крупных компаний-разработчиков и полупроводниковых гигантов, включая Intel, Qualcomm, Samsung, Arm и Google сформировали альянс, названный The Unified Acceleration Foundation (UXL). Целью этого союза является создание универсального открытого ПО, которое позволит разработчикам ИИ-решений отказаться от CUDA и использовать ускорители других производителей.

Источник изображения: Intel

Сама группа UXL была сформирована ещё в сентябре прошлого года ведущими производителями микрочипов, но на днях она объявила о расширении, а также уточнила, как именно намерена бороться с CUDA. В основу нового, открытого мультиплатформенного стандарта ляжет Intel OneAPI, уходящий корнями в SYCL и OpenCL. В наследство достанутся и различные наработки Intel, включая инструмент SYCLomatic, позволяющий конвертировать CUD-код в SYCL-код, способный выполняться практически на любой платформе, в том числе и от NVIDIA.

UXL надеется сформировать стандартную модель программирования для ИИ-вычислений. Спецификации должны быть утверждены уже в I полугодии, а к концу 2024 года UXL, согласно планам, достигнет зрелого состояния. Группа намеревается привлечь и других производителей чипов, а также крупных провайдеров облачных услуг, включая Microsoft Azure и Amazon. Примечательно, что AMD к UXL решила не присоединяться.

Американский стартап в сфере аналитики больших данных и машинного обучения Databricks объявил о выходе DBRX, большой языковой модели (LLM) общего назначения, которая, по его словам, превосходит в стандартных бенчмарках все существующие LLM с открытым исходным кодом, а также некоторые проприетарные ИИ-модели.

Стартап заявил, что открывает исходный код модели, чтобы побудить пользователей отказаться от коммерческих альтернатив. Он отметил, что согласно исследованию Andreessen Horowitz LLC, почти 60 % лидеров в области ИИ-технологий заинтересованы в увеличении использования или переходе на open source, если открытые модели после тюнинга примерно соответствуют по производительности проприетарным моделям.

Источник изображений: Databricks

«Я считаю, что самые ценные данные хранятся внутри предприятий. ИИ как бы исключён из этих сфер, поэтому мы пытаемся реализовать это с помощью моделей с открытым исходным кодом», — цитирует ресурс SiliconANGLE заявление гендиректора Databricks Али Годси (Ali Ghodsi) на брифинге с журналистами. По словам Годси, лучше всего DBRX подходит для сфер, где критически важны управление и безопасность, например, для финансовых услуг и здравоохранения, или там, где важен тон ответов, например, в области самообслуживании клиентов.

DBRX использует архитектуру Mixture of Experts (MoE, набор экспертов), которая делит процесс обучения между несколькими специализированными «экспертными» подсетями. Каждый «эксперт» владеет определёнными навыками, а исходный запрос оптимальным образом распределяется между «экспертами». Вице-президент Databricks по генеративному ИИ, перешедший в компанию вместе с приобретением MosaicML, соучредителем которой он был, заявил, что MoE работает даже лучше человека.

Хотя DBRX с 132 млрд параметром почти в два раза больше Llama 2, она всё равно вдвое быстрее. Также сообщается, что DBRX превзошла существующие LLM с открытым исходным кодом Llama 2 70B и Mixtral-8x7B (тоже MoE), а также запатентованную GPT-3.5 Turbo в тестах на понимание языка, программирование, математику и логику. Обучение модели на общедоступных и лицензированных источниках данных в течение двухмесячного периода обошлось Databricks всего в $10 млн с использованием 3 тыс. ускорителей NVIDIA H100.

По словам компании, при создании приложений генеративного ИИ модель DBRX можно использовать вместе с Databricks Mosaic AI, набором унифицированных инструментов для создания, развёртывания и мониторинга моделей ИИ. Базовая модель DBRX Base и продвинутая модель DBRX Instruct доступны по открытой лицензии для исследований и коммерческого использования на GitHub и Hugging Face. Разработчики могут уже сегодня создавать свои варианты DBRX на основе собственных данных на платформе Databricks.

Эксперимент по созданию национального репозитория открытого кода, по сообщению газеты «Ведомости», отложен на неопределённый срок. Причина заключается прежде всего в отсутствии необходимого финансирования. Кроме того, участники рынка говорят, что потребность в такой площадке фактически отпала в связи с появлением альтернативных частных платформ.

Национальный репозиторий кода задумывался в качестве аналога GitHub. Премьер-министр Михаил Мишустин выступил с предложением создать отечественную платформу для совместной разработки IT-проектов в сентябре 2021 года. Потребность в такой системе усилилась в связи с блокировкой аккаунтов российских разработчиков на GitHub. С 2022 года запущены несколько площадок для совместной разработки и хостинга кода: репозиторий Mos.Hub правительства Москвы, «РТК-Феникс» и «Лукоморье» от «Ростелекома», «Сфера» от T1, GitFlame от «Иннополиса», GitVerse от «Сбера» и др.

Источник изображения: pixabay.com

Эксперимент с российским репозиторием планировалось провести с ноября 2022-го до конца апреля 2024 года. Ответственным за выполнение работ определён Российский фонд развития информационных технологий (РФРИТ). В декабре 2022 года Минцифры предложило передать на реализацию проекта 1,3 млрд руб., которые с 2007-го остаются невостребованными на счетах фонда «Росинфокоминвест» (создан правительством в 2007 году для инвестиций в отечественные IT-решения на ранних стадиях).

Однако деньги так и не были выделены. Более того, отмечается, что фокус проекта сместился на вопросы более активного использования ИИ в процедурах обработки данных и работы с кодом. Иными словами, концепция репозитория требует пересмотра. Кроме того, развёртывание платформы потребует регулярных инвестиций для поддержания её работы. По оценкам, в перспективе трёх лет затраты на аренду мощностей у одного из ведущих провайдеров («Яндекса», VK, Cloud.ru или «Ростелекома»), а также обеспечение отказоустойчивости и безопасности составят от 300 млн до 500 млн руб.

К середине 2023 года доля используемых российским бизнесом IT-решений на базе коммерческих open source-решений (Commercial Open Source Software, COSS) выросла в сравнении с концом 2022 года в три раза (12 % и 4 % соответственно), передают «Ведомости» со ссылкой на данные Института изучения мировых рынков (ИИМР), который отнёс к COSS 26 отечественных программных продуктов, включая, например, ОС на базе Linux.

Анализу подверглись закупки ПО крупными и средними российскими компаниями. Учитывались данные закупок с февраля по июнь 2023 года. Согласно прогнозам НИМР, в ближайшие два года COSS-решения займут до 32 % отечественного рынка IT-решений для бизнеса, а «проприетарное» ПО потеряет свои позиции и его доля упадёт с 62 % сегодня до 32 % в будущем. Кроме того, 32 % будет приходиться на полностью бесплатные пакеты с открытым кодом (FOSS).

Источник изображения: Luke Peters/unsplash.com

Концепция COSS предусматривает заработок на дополнительных услугах, поскольку доступ к исходному коду зачастую бесплатен. Заказчики платят за техподдержку, обучение персонала, доработку продукта и т.п. Кроме того, если базовый вариант ПО бесплатен, Pro-версия может быть платной. Преимущества COSS перед ПО с закрытым кодом заключаются в возможности проводить аудит кода, если это необходимо, тестировать продукты без посредничества вендора, вносить собственные изменения, говорят эксперты.

По мнению экспертов, COSS-решения применяются всё чаще, причём коммерческие open source-решения будут доминировать над бесплатными вариантами. При этом доработка ПО может быть быстрее и качественнее, чем у бесплатных вариантов. COSS-решения безопаснее FOSS, поскольку их поддержкой и устранением недочётов занимаются специальные команды. Более того, для «чистого» open source сертификация ФСТЭК невозможна в отличие от доработанных вендорами решений.

Имеются и недостатки. Как сообщают «Ведомости», многие разработчики упоминают о проблеме «фейковых» вендоров, мешающих развитию рынка COSS-экосистем. Так, некоторые интеграторы просто продают «брендированные» бесплатные решения в собственной «обёртке», не занимаясь ни поддержкой, ни доработкой продуктов, что подрывает доверие к COSS в целом.

IT-компания СберТех, дочерняя структура Сбера, занимающаяся созданием и сопровождением российского ПО серии Platform V, объявила о доступности специализированной платформы GitVerse для совместной разработки и хостинга кода.

На базе GitVerse можно бесплатно размещать проекты с открытым и закрытым кодом. Кроме того, программисты смогут привлекать других участников, организовывать совместную работу, общаться и обмениваться опытом, в том числе в области open source. Доступны средства для проверки кода и назначения задач.

Сервис создан и размещён в России, а поэтому исключены риски недоступности разработок и кода для российских пользователей. Реализованы функции быстрого переноса репозиториев с популярных git-площадок. Доступ к проекту может предоставляться только собственной команде или всему сообществу. Утверждается, что GitVerse обеспечивает высокую скорость выполнения всех операций. На платформе уже доступны open source версии некоторых продуктов СберТеха.

Источник изображения: GitVerse

Первые пользователи, зарегистрировавшиеся на GitVerse, смогут присоединиться к открытому тестированию GigaCode — персонального ИИ-ассистента, оказывающего помощь программистам. Этот сервис генерирует варианты завершения кода непосредственно в среде разработки в режиме реального времени. Поддерживаются более 15 языков программирования, включая Java, Python, TypeScript, C/C++ и пр. Помощник устанавливается как плагин в привычные среды разработки, такие как IDEA, PyCharm, VSCode и Jupyter. Отмечается, что GigaCode позволяет сократить время написания кода до 25 %.

«GitVerse позволяет не только публиковать свои проекты, но и взаимодействовать с open source сообществом, что сегодня крайне важно для рынка. Уверен, что GitVerse станет популярным и востребованным инструментом для всей IT-индустрии. Совместно с ведущими разработчиками мы будем работать над размещением на площадке ещё большего количества востребованных репозиториев и сервисов», — говорит старший вице-президент, руководитель блока «Технологии» Сбербанка.

Максим Дунин, один из ключевых разработчиков популярного веб-сервера nginx, сообщил об уходе из проекта. Вместо этого он начнёт развивать альтернативный продукт под названием FreeNginx. Цель этой инициативы, официально анонсированной 14 февраля 2024 года, заключается в том, чтобы «оградить разработку nginx от произвольного корпоративного влияния».

В открытом письме Дунин отмечает, что компания F5 (владелец nginx) закрыла московский офис в 2022 году, но сам Дунин остался в российской столице. При этом стороны заключили соглашение о том, что он продолжит участвовать в разработке nginx в качестве волонтёра. Так и было практически два года, однако затем произошли изменения на корпоративном уровне.

Источник изображения: nginx

«К сожалению, недавно новый нетехнический менеджмент F5 решил, что лучше знает, как управлять проектами open source. В частности, они решили вмешаться в политику безопасности nginx, реализуемую годами, игнорируя как устоявшиеся нормы, так и позицию разработчиков», — пишет Дунин.

По его словам, с точки зрения F5 как владельца nginx изменения понятны, но они противоречат соглашению о разработке. В этой связи, говорит Дунин, он больше не в состоянии контролировать изменения, вносящиеся в nginx, а поэтому не может рассматривать продукт как бесплатный проект open source, разработанный ради общественного блага.

«Поэтому с сегодняшнего дня я больше не буду участвовать в nginx. Вместо этого я начинаю альтернативный проект, которым будут управлять разработчики, а не корпорации», — заявляет Дунин.

Нужно отметить, что ранее разработчики nginx учредили в России компанию «Веб-Сервер», которая развивает альтернативный проект Angie. У это продукта имеется коммерческая PRO-версия, а сам веб-сервер включён в реестр отечественного ПО.

Изменения, которые компания Red Hat внесла в политику доступа к исходным кодам дистрибутива Red Hat Enterpise Linux (RHEL), создают непредвиденные сложности для команд разработчиков CentOS Special Interest Group (SIG), о чём сообщает ресурс Phoronix.

В июне 2023 года, напомним, Red Hat объявила о прекращении поддержки публикации исходного кода пакетов уже выпущенных релизов в репозитории CentOS. Публично остаются доступны только репозитории CentOS Stream, «вечной бета-версии» будущих релизов RHEL.

Исходники RHEL хранятся на клиентском портале Red Hat, доступном только при наличии контракта. Участники рынка заявили, что действия Red Hat создают нестабильность и не соответствуют принципам open source. Впоследствии CIQ, Oracle и SUSE создали совместную торговую ассоциацию Open Enterprise Linux Association (OpenELA), чтобы противостоять политике Red Hat.

Источник изображения: Yang / Unsplash

Однако новая практика этой компании продолжает оказывать негативное влияние на деятельность приближенных к ней разработчиков. В частности, группа Kmods SIG, поддерживающая дополнительные модули ядра для CentOS Stream и RHEL, в настоящее время «не может создавать пакеты для Red Hat Enterprise Linux по юридическим причинам». Разработчики пытаются решить этот вопрос с Red Hat и возобновить деятельность «как можно скорее», но конкретные сроки не называются. Со сложностями также столкнулась группа CentOS Hyperscale SIG. Hyperscale SIG теперь опирается на Fedora, а не на дерево CentOS/RHEL.

В 2024 году проекту OpenWrt, дистрибутиву Linux, разработанному для использования в маршрутизаторах и других сетевых и встраиваемых решенияз, исполняется 20 лет. Сообщество разработчиков OpenWrt решило отпраздновать юбилей созданием беспроводного роутера OpenWrt One (AP-24.X), построенного на плате в стиле Banana Pi.

Естественно, предполагается максимальное использование open source ПО (за исключением прошивки беспроводного чипа), наличие U-Boot и поддержка в ядре Linux. Ожидается, что стоимость устройства не будет превышать $100. Схемы сборки устройства будут поставляться с открытой лицензией. Продажей устройства займётся некоммерческая организация Software Freedom Conservancy, ответственная за юридическую защиту проекта OpenWrt.

Изображение: Banana Pi

Платформа будет построена на SoC MediaTek MT7981B. Поддержку Wi-Fi 6 обеспечит чип MediaTek MT7976C (2×2 2,4 ГГц + 3×3/2×2 + DFS 5 ГГц). Объём оперативной памяти DDR4 составит 1 Гбайт, ёмкость флеш-памяти SPI NAND — 128 Мбайт, SPI NOR (загрузчик + служебные данные) — 4 Мбайт. Расширить память можно будет с помощью слота M.2 для NVMe SSD (PCIe 2.0 x1).

Устройство получит два разъёма Ethernet (2.5GbE + 1GbE), порты USB 2.0 Type-A и USB-C (UART, консоль, CDC-ACM, питание), JTAG, RTC (с разъёмом для батарейки) и слот mikroBUS. Также сообщается о кнопке сброса и пользовательской кнопке на корпусе, механическом переключателе режима загрузки (восстановление или штатный режим) и четырёх светодиодах. Создатели надеются получить собственный OUI-блок, который впоследствии можно будет задействовать в других open source проектах.

Разработчики намерены сделать устройство максимально защищённым, в том числе от «окирпичивания». Этому будут способствовать несколько режимов восстановления, простой доступ к консоли и применение внешнего аппаратного watchdog-монитора. А благодаря слоту M.2 можно будет выполнить загрузку дополнительных дистрибутивов, таких как Debian или Alpine.

Участники проекта Gentoo Linux объявили о запуске репозитория готовых бинарных пакетов. Это в числе прочего повысит общее удобство использования ОС и поможет ускорить работу с медленным оборудованием. Бинарные пакеты можно применять наряду с пакетами, компилируемыми из исходного кода.

Менеджер Portage проекта Gentoo Linux уже давно поддерживает работу с двоичными пакетами. Теперь такие компоненты можно загружать с серверов Gentoo. Данный подход позволяет экономить время и осуществлять безопасное обновление систем. Наличие предварительно скомпилированных бинарных пакетов на отдельном сервере или на локальном компьютере может стать подспорьем в случае повреждения базовой системы.

Изображение: Ben Stedman и Alex Legler

Для большинства архитектур доступные бинарные пакеты охватывают основную систему и еженедельные обновления. В случае платформ amd64 и Arm64 на зеркалах Gentoo Linux также имеется большое количество различных бинарных пакетов суммарным размером более 20 Гбайт. Бинарные пакеты для систем amd64/x86-64 скомпилированы с флагами «-march=x86-64 -mtune=generic -O2 –pipe», для систем arm64/AArch64 — с флагами «-O2 –pipe».

Бинарные пакеты подписаны криптографической подписью с теми же ключами, которые ранее применялись для stages-сборок. Отмечается, что менеджер Portage поддерживает два формата бинарных пакетов — XPAK (старый) и GPKG (новый). При этом только GPKG может иметь криптографическую подпись. Все новые официальные бинарные пакеты Gentoo имеют формат GPKG.

Некоммерческий консорциум Linux Foundation обнародовал годовой отчёт о развитии экосистемы open source. Говорится, что в 2023-м в состав организации вошли приблизительно 270 новых участников, а общее количество курируемых проектов достигло 1133.

В течение 2023 года выручка Linux Foundation составила примерно $262,6 млн, а расходы — $269,0 млн. Общая доля затрат, связанных с разработкой ядра Linux, составила всего 2,9 %, или около $7,8 млн. Это почти на $400 тыс. меньше по сравнению с 2022-м, когда доля расходов на ядро равнялась 3,2 %. В 2021-м это значение оценивалось в 3,4 %.

На различные проекты пришлось в общей сложности 64 % всех расходов Linux Foundation — около $171,8 млн. Наибольший вклад в эту сумм внесли инициативы, связанные с облачными технологиями, контейнерами и виртуализацией (25 %), а также сетевыми технологиями (13 %).

Источник изображений: Linux Foundation

Доля затрат Linux Foundation в сфере ИИ, машинного обучения и аналитики данных в 2023 году составила примерно 12 %. На средства обеспечения безопасности и конфиденциальности потрачено 4 % от общей суммы, приблизительно столько же ушло на Интернет вещей (IoT) и встраиваемые решения. На технологии блокчейна также направлено 4 % затрат.

На поддержание инфраструктуры в 2023-м потрачено $22,58 млн (9 %), на программы обучения и сертификации — $18,57 млн (7 %), на корпоративную деятельность — $17,12 млн (6 %), на различные мероприятия — $14,60 млн (6 %), на поддержку сообщества — $13,53 млн (5 %), на международные операции — $2,96 млн (1 %).

Что касается денежных поступлений, то 45 % всех полученных средств (118,2 млн долларов) пришлось на пожертвования и взносы членов организации. Ещё 26 % ($67 млн) составила целевая поддержка проектов, 19 % ($49,5 млн) — поддержка мероприятий, а также регистрационные сборы на конференциях, 10 % ($27,2 млн) — оплата обучающих курсов и получение сертификатов.